CarryOn:面向可复用任务对象的长程 Agent 上下文运行时
🧭 长程 Agent 上下文管理 · 对象化折叠 ★ 深度解读
University of California San Diego
CarryOn 将长程 Agent 上下文组织为可复用任务对象 + 执行上下文 + 近期交互,OSWorld 2.0 和 BrowseComp-Plus 分别 +5.8%/+7% 并大幅降 token
📌 工作参考价值(4 点)
- 在电商运营/客服长流程 Agent 中,把已完成的商品素材、报表、投放设置等作为 external object carrier,只记录对象路径与使用条件,续接时让 Agent 直接读对象检查,替代反复携带生产日志。
- 显式保留 execution context(目标、约束、未完成任务)与 carrier 互补;论文消融显示缺失该组件会使 partial 分数从 55.93 降至 44.00,实际系统里容易因折叠丢失当前焦点。
- 采用 fold 机制:当可复用产物形成(如图片导出、报表填充)就折叠历史,验证后原子提交,能将输入 token 稳定在阈值附近,成本优势随轨迹变长而扩大(OSWorld 上 500 步降本 34.1%)。
- 信息检索式 Agent(选品调研、竞品分析)可把中间结论存为 information product carrier 并绑定来源,减少重复搜索;论文在 BrowseComp-Plus 上实现 +7% 准确率且 token 降 22.9%。
EpiCon:通过共演化多模态记忆的智能体集体学习
🧭 多智能体共享多模态经验记忆 ★ 深度解读
MIT-IBM Computing Research Lab · University of Rochester · Massachusetts Institute of Technology
共享多模态外部记忆,两个2B模型负责经验更新与树形巩固,支持跨智能体系统复用且不动宿主参数
📌 工作参考价值(4 点)
- 可把 EpiCon 的共享外部记忆模式用于电商 Agent 中台:将 query 理解、商品图/详情页文档审核、素材生成等成功/失败轨迹沉淀为可复用 lessons 和规则,不同场景或模型版本直接检索复用,主模型不用再训练。
- 用 2B 小模型做 memory controller / tree organizer,而不是直接调骨干模型管理记忆,可降低 67–74% 记忆操作耗时;对需要频繁读写外部记忆的线上 Agent 有直接工程收益。
- 树形经验组织与 consolidation 生成规则,比扁平 memory 稳定;可借鉴 Place/Merge/Split+Lift 与容量 partition,对用户分群、商品类目、店铺运营等多层级知识做抽象和冲突消解。
- 自适应视觉注入 gate 值得迁移到多模态推荐/搜索:根据当前 query 和 memory 描述决定是否附带图片区域,减少无关视觉 token,提升上下文效率,尤其适合商品多图、详情页截图等长上下文场景。
C3M:面向长程任务的跨会话多模态记忆维护
🧭 Agent 跨会话多模态记忆维护
Huzhou Normal University · Alibaba Group · University of Waterloo
提出有界索引、关系感知更新与预算路由相结合的跨会话多模态记忆维护机制
📌 工作参考价值(4 点)
- 在电商购物助手/客服 Agent 中,不要过度压缩历史会话;可维护一个固定大小的 active index,指针式保留原始商品图、对话截图、订单状态等源证据,后续按需展开,避免丢失 fine-grained visual cues。
- 借鉴 relation-aware updates:区分 redundant / complementary / incompatible 观察,不要仅凭文本或图片 embedding 相似就合并记录;不同商品属性、状态或时间版本必须保留,避免把“同款不同色/不同卖家”的相似商品搞混。
- 采用 budgeted routing:查询时先用小预算检索索引页,再对选中的页按固定 reader budget 展开源证据,可迁移到 RAG 用户记忆或广告创意上下文中,控制 LLM context 开销并提高检索选择性。
- 保留 provenance 和时间区分,方便后续审计、刷新和个性化推荐;在推荐系统里可用类似机制维护跨会话用户画像,索引指向原始行为序列而非抽象摘要。
长生命周期游戏 NPC 的增量记忆维护
🧭 LLM 推理 · 增量记忆维护
University of Bern
提出 LLM 运行时增量更新记忆的机制,避免重算长前缀并保持语义绑定
📌 工作参考价值(4 点)
- 在电商对话 Agent 或推荐助手中,当用户画像、订单状态等关键信息发生增量变化时,可以采用类似“移除被取代 KV 条目 + 在真实序列尾部追加更新”的策略,避免每次重新编码全部历史,显著降低本地部署的推理延迟和计算成本。
- 记忆更新应放在序列尾部而非原位覆盖:实验表明 true-tail updates 能避免 slot-preserving 方法出现的“双减法”类状态错误,这对需要精确状态追踪的电商规则系统(如库存、优惠券核销)尤其重要。
- 评估记忆维护系统时不能只看注意力分布相似度:论文发现注意力接近性无法解释语义差异,因此电商 Agent 的长期记忆评估应以下游任务准确率(如订单修改后的库存判断)为准。
- 混合循环-注意力架构(如 Qwen)在长上下文场景中能平衡效率与效果,可作为需要长期用户上下文记忆的生成式推荐 Agent 的候选基座。
RAG 需要索引:摄取时语义编译胜过查询时解释
🧭 RAG · 摄取时语义编译与索引 ★ 深度解读
Endgame Labs, Inc. · Asia AI Institute, Musashino University · Faculty of Data Science, Musashino University · AIx, Inc.
提出摄取时语义编译 ISC,将语料编译为带验证来源的原子声明,查询时读取成本降低约21倍且准确率更高
📌 工作参考价值(4 点)
- 电商知识库/客服对话场景:将商品卖点、用户评价、客服承诺提前编译为原子事实(claim),每条事实携带 verbatim span、说话人、位置;RAG 时直接返回事实而非原始段落,可显著降低读取 token 并提升答案准确率,尤其适合高频查询。
- Agent 记忆/生成式推荐中写入 provenance 门禁:对从评论、对话中提取的每一条声明做精确字符串匹配,无法定位原文 span 的不写入,避免幻觉传播到下游答案或推荐理由。
- 成本模型 R* 指导编译决策:热门商品描述、政策文档、常见问题可提前编译;长尾、易变内容保留查询时解释,不要默认全量编译。
- 索引维护上借鉴增量低秩更新:频繁更新的商品语料不要每次全量重算 embedding,可考虑增量更新;模型升级用 Procrustes 对齐,只重新嵌入少量样本,降低迁移成本。
MindMemOS:可移植自演化的 AI Agent 记忆操作系统
🧭 Agent 记忆操作系统与自我演化 ★ 深度解读
Noah's Ark Lab, Huawei Technologies
提出实体-属性-时间三维记忆结构与四类自演化机制,实现可移植、自演化的 Agent 记忆层
📌 工作参考价值(4 点)
- 用户画像与偏好演化:借鉴 3D entity-property-time 结构,把电商/推荐场景中的用户、商品、偏好事件建模为实体、属性、时间线,支持偏好变更、冲突版本管理与时序推理。相比纯文本记忆,更适合追踪用户兴趣漂移(例如 LOCOMO 的 temporal/multi-hop 问题)。
- 离线记忆压缩与冲突解决:Dreaming 机制把线上增量写入造成的冗余、过期、冲突记录离线合并、归档并保留 provenance。在推荐/广告场景可用于定期压缩用户行为记忆,保证活跃记忆库不过度膨胀,同时保持检索质量(论文中 AMCR 约 20%,准确率反升)。
- 隐式反馈分类与记忆修正:将用户对 Agent 的纠正按持久性分为 task-temporary / scenario-specific / long-term,避免把一次性指令写入长期记忆。电商导购、对话式推荐中可据此捕获用户隐含偏好与约束,减少重复推荐错误,尤其适合处理“这次不要”、“以后都这样”等模糊纠正。
- 轨迹驱动的技能演化:MindSkillEvolve 将 Agent 执行轨迹提炼为可复用、版本化的技能,可通过 unsupervised 或 score-guided 方式持续改进 SOP。可迁移到客服/导购 Agent 的流程能力迭代:用真实对话与任务执行日志自动总结高效策略与失败模式,生成可回滚的技能版本。
MemoryCPT:面向成本-性能权衡的端到端Agent记忆框架
🧭 Agent记忆优化 · 成本与性能权衡 ★ 深度解读
香港科技大学 · 香港科技大学(广州) · 腾讯LIGHTSPEED STUDIOS · 香港中文大学
通过离线蒸馏记忆构建 + 在线GRPO摘要优化,在长对话问答中同时提升答案质量并大幅降低推理成本
📌 工作参考价值(4 点)
- 离线记忆构建与在线检索分离:将记忆压缩为可复用的片段(episodic + semantic),整体记忆构建成本可以在多次查询间摊销,适合电商Agent持续对话或长期用户画像维护,避免每次请求重复处理全量历史。
- RRF融合稠密与稀疏检索:在商品知识库或用户行为记忆中,结合 embedding 和 BM25 两种信号做初步召回,再用 LoRA 摘要器压缩,能有效降低下游 LLM 的 token 消耗——可直接用于客服意图识别或推荐语生成前的背景筛选。
- GRPO 训练成本感知摘要策略:用加权奖励(F1 + token节省)训练摘要模型,使 agent 学会“用最少且最关键的上下文回答问题”。在电商搜索结果摘要生成或广告文案自动适配中,可以借鉴此方法,在字数限制下优化信息含量。
- QPC 指标量化智能密度:在评测推荐解释、Agent 回答或 query 扩展时,除看准确率,也应关注单位推理成本的产出,便于在工程上做模型选型与预算控制——尤其是当需要高频调用大模型时。
Zero-Mem:面向LLM智能体的零Token记忆操作
🧭 Agent 零Token记忆操作 ★ 深度解读
The Hong Kong Polytechnic University · Southwestern University of Finance and Economics · Jilin University
提出零Token记忆框架,用实体图和时序层次替代生成式抽象,全部记忆操作不占用LLM调用或Token。
📌 工作参考价值(4 点)
- 零LLM记忆管道:记忆构建、检索、路由、校准等全部环节都用确定性算法和编码器完成,避免生成式抽象,可直接用于电商Agent的“用户长期偏好/行为记忆”,将记忆部分与最终生成解耦,极大降低Token开销和延迟。
- 双视图结构化检索:实体-上下文图捕获跨会话关联,时间层次保留对话局部性和状态,通过查询路由动态加权融合。推荐系统Agent可以仿造这种“关系+时序”双重索引,处理用户多轮意图变迁与跨会话关联。
- 证据校准与封闭:检索后自动补充关系桥接和局部上下文,再用边界与类型滤波提炼证据,最后对答案进行确定性校验。这套方法可复用到电商QA或对话推荐的后处理阶段,提高生成事实性与一致性,无需额外LLM调用。
- 保留原始痕迹:Zero-Mem不生成中间摘要或笔记,所有证据都可追溯到原始交互,适合需要审计、合规且长周期交互的电商客服或导购场景,在低成本下提供可解释的原文支持。
UniMem:边界无关任务流的互补情节到参数记忆框架
🧭 Agent 记忆管理 · 参数化与检索互补 ★ 深度解读
Institute of Automation, Chinese Academy of Sciences · Peking University · Meituan · University College London
受互补学习系统启发,用路由令牌解耦识别与执行,稀疏任务走检索、重复模式自动参数化,实现流式记忆扩展。
📌 工作参考价值(4 点)
- 路由与执行解耦:用轻量级路由令牌做任务识别,高容量Procedural KV Memory做任务执行,新任务无需标签即可自动分配参数块。电商推荐Agent可直接套用:路由判断用户意图,对应模块调推荐策略。
- 缓冲与门槛机制:稀疏/长尾任务保留在情节缓冲走RAG,避免过早参数化导致噪音;当缓冲证据足够且聚类质量过关时才固化为参数记忆。搜索广告场景中,低频query或新item可用此方式积累样本再触发模型更新。
- 参数隔离避免遗忘:每个任务独立KV Memory块,与冻结骨干通过可学习门控注入,天然抵抗流式任务间的灾难性遗忘。多租户推荐模型或个性化Agent可参考按用户/场景分配独立记忆单元,互不干扰。
- 无监督任务发现:基于NCD计算任务相似度 + HDBSCAN聚类,无需任务ID即可识别重复模式。可迁移到用户行为流中自动挖掘规律性行为簇,驱动推荐策略的自动聚合与迁移。
InMind:Agent 记忆系统隐式关联盲点基准
🧭 Agent 记忆评估 · 隐式关联盲点 ★ 深度解读
University of Science and Technology of China · Metastone Technology
提出 InMind 基准,揭示基于检索的记忆系统在间接查询中因缺乏相似线索而系统性地遗漏关键记忆,差距从 84% 跌至 14%
📌 工作参考价值(4 点)
- 业务场景的隐式关联风险:电商、推荐系统中用户历史行为(如拥有宠物)与当前查询(搜索“百合花”)之间缺少 token 或语义重叠,基于嵌入的检索会遗漏这种安全/偏好信息。可借鉴 InMind 的任务构造方式,主动设计跨域桥接问询,测试自身系统是否会“记得但不用”。
- 评估范式:三重控制分离失败原因:InMind 用直接查询控制存储成功、in-context 控制模型桥接能力、目标召回检查检索是否送达,将检索失败与存储或知识缺失剥离开。业务内部评测可复现这一范式,快速定位问题出在写入、模型还是检索端。
- 路由决策是核心开放问题:always‑in‑state 诊断(仅维持一次 200 行 profile)恢复大部分性能(68.8%),而 MemoryOS 这类带有可见 profile 的混合系统仍差很远,说明关键并非“有可见状态”,而是“决策哪些记忆必须始终可见”。对推荐中的长期记忆,可引入重要性路由,如根据未来可能桥接的风险(健康、安全)对记忆打标,强制进入上下文。
- 嵌入增强不能根本解决问题:从 384 维换到 3072 维 embedding,目标召回上升但应用率仍在低位,证明单纯增大 embedding 并无法掌握药理、法律等冷门桥接知识。在工程中不应仅依赖 embedding 相似度,可考虑配合结构化知识图谱或启发式规则来显式表达某些隐式关联。
全局计算,本地物化:稀疏事件KV缓存的内存契约
🧭 LLM推理 · KV缓存语义存留机制 ★ 深度解读
Independent Researchers
从服务中省略源观测,下游事件的KV缓存仍能携带上游计算结果,且可被程序化写入
📌 工作参考价值(4 点)
- Agent记忆系统的写入策略:若要用KV缓存做记忆,不要依赖自然对话中的隐式提及,应主动插入简洁的“载体事件”(如一个计算指令)。当前模型上,主动写入比被动收割在Qwen3-8B上将携带状态恢复率从6%提升至51%。需按模型校准触发词(如用“consist”而非“write”),并始终保留显式文本记录作为回退。
- Eviction/Prefix缓存评估风险:丢弃一个源事件后若模型准确率未下降,不能断定该源事件无用——其状态可能已物化到后续事件的KV行中。评估策略时,需用隐蔽源值+控制token不变的“捐赠者对”方法,隔离文本泄露与纯KV信息存留。
- 多跳推理路由优化:在多步依赖链中,根源事件的行携带主要信号,引用边仅路由回根。选择缓存行时,保留根节点即可,不必全链路保存,可指导检索增强生成中回滚/缓存复用逻辑。
- 状态更新开销:修正谬误时,追加一个补丁事件的KV覆盖即可,代价O(pL+p²)而非全量重算O(L²)。但补丁本身会干扰历史查询,需查询范围限定与模板兼容性处理。
Mandol:面向长期对话的凝聚式Agent记忆系统
🧭 长期对话代理记忆系统 · 统一内存架构 ★ 深度解读
Institute of Software, Chinese Academy of Sciences · Microsoft Research
通过统一层次记忆模型与凝聚式数据结构,将碎片化存储融合为单一内存原生架构,在长期对话基准上达到最优准确率与最低延迟
📌 工作参考价值(4 点)
- 在推荐Agent或电商客服中,可借鉴层次记忆模型:将原始对话/行为拆分为基本记忆单元,并自动凝聚为事件链、实体图、用户偏好等高阶抽象,所有抽象保留与原始记忆的溯源链接,方便证据回查。
- 统一内存语义数据结构(SemanticMap+SemanticGraph)可替代常见的向量数据库+图数据库的混合方案,消除跨库I/O,将检索延迟降低一个数量级,适合低延迟交互场景。
- 定量检索机制不依赖LLM参与召回,通过查询自适应路由、基于MAD的动态去噪、跨源冲突仲裁(结合时间衰减与信源置信度)以及MMR驱动的Token预算上下文拼接,可直接用于构建干净、不冲突的长期记忆上下文,避免RAG式检索引入的噪声与冗余。
- Token效率优化技巧:用MMR联合优化相关性与多样性,避免简单Top-K导致关键证据丢失,可在有限上下文中保留互补信息,对推荐系统整理用户长期画像或Agent生成多跳推理线索都有参考价值。
AgentIR: 面向长期会话记忆的自适应级联检索基底
🧭 自适应级联检索 · Agent 记忆工作负载 ★ 深度解读
University of Southern California
针对 LLM Agent 记忆的强近期偏斜与查询异质性,设计自适应级联检索系统,实现次线性扩展与跨工作负载自动融合选择。
📌 工作参考价值(4 点)
- 时间分区索引利用 recency skew:将 Agent 记忆按时间窗口分桶,查询时仅检索最新分区,在典型近期偏斜分布下复杂度 O(log 1/ε),实测 5M 记录下子 100μs 延迟,可显著降低在线客服或推荐系统中长期历史查询的延迟。
- 级联路由按查询置信度跳过稠密通道:先跑廉价的 BM25,若Top-k 分数差跨过阈值则跳过耗时的 Dense 通道,在 LongMemEval 上跳过 63% 查询仍保持同等精度,部署时可用少量标注数据(50样本)自动学习阈值,适用于电商 Agent 中多数查询为简单事实查找的场景。
- 两轴控制面适配异质查询:融合策略(BM25/Dense/RRF/带时效偏好的 RRF)和是否激活稠密通道均按查询决策,可应对同一个 Agent 会话中从事实查找、推理到时间查询的类型切换。可用于推荐系统中混合搜索(关键词 vs 语义)的动态切换。
- BM25 工程加速与正确性坑点:SIMD 向量化、MaxScore 剪枝、GPU 两段核函数及共享内存初始化问题等具体实现细节可直接复用到自研稀疏检索模块,避免因预归一化 TF 或 nDCG 公式错误导致 6-8× 质量下降。